傅莹：人工智能与国际安全治理

傅莹： 尊敬的主持人，各位嘉宾，大家好！感谢主持人的介绍，上午大家谈到宏观的看法和主张。 我特别想呼应一下许多人谈到的，尤其是联合国副秘书长法布里齐奥·霍奇尔德、外交部国际经济司司长王小龙和科技部战略规划司司长许倞他们谈到的，关于构建人工智能国际治理体系和机制的重要性和必要性。希望能在人工智能领域建立包容性很强的国际治理委员会通过共同探讨、研究、吸纳好的意见和建议，形成共同的国际规范，这是非常必要且紧迫的。 下面我主要从最近中美学者“人工智能与国际安全治理”合作项目的角度，谈谈这个问题。论坛开始之前发布了我和美方项目牵头人John Allen介绍研究成果的文章，今晚9点在关于《人工智能与国际安全：挑战与机遇》的第三个分论坛上，中方团队的李彬老师会作更详细的介绍，欢迎大家去听。 中国在人工智能治理问题上向国际社会释放了清晰的合作信号。今年11月，习近平主席在G20峰会上强调，中方支持围绕人工智能加强对话，倡议适时召开专题会议，推动落实G20人工智能原则，引领全球人工智能的健康发展。我理解，今天这个论坛也是依据这个精神召开的。 今年9月，中国国务委员兼外长王毅提出《全球数据安全倡议》，表示希望国际社会在普遍参与的基础上就人工智能的安全问题达成国际协议，支持通过双边或多边协议的形式确认倡议中的承诺。他提出有效应对数据安全风险应遵循的三项原则,包括秉持多边主义、兼顾安全发展和坚守公平正义。 确实，技术革命往往伴随不可预知的安全挑战，在这方面，国际关注的焦点之一是智能武器的道德和技术风险。清华大学战略与安全研究中心与多家国际机构围绕这个问题开展了研讨，包括与美国布鲁金斯学会的专家学者进行的三轮系列研讨，结合国际军控经验，寻找管控智能武器风险和国际安全治理的路径。 专家们梳理了智能武器可能带来的风险。一是由于人工智能技术不完善，智能武器可能导致更大的连带伤害。二是智能武器的训练需要大量数据，数据的污染和形成的偏见可能导致严重后果。三是人机协同的挑战，机器在可解释性、学习性、常识性等方面的不足有可能放大发生冲突的风险，等等。 那么，既然人工智能武器化不可避免，专家们研究的方向是寻找合适的治理路径。大家都认为，人类必须汲取历史教训，例如对核武器的治理共识就发生的太晚，导致人类曾经面临巨大威胁，互联网的治理也没有能够在早期实现。大家希望这次对人工智能，尤其是智能武器的治理，人类能走在技术变革的前面，充分认识其风险，早些达成治理共识。 大家提出，需要采取军事克制态度，限制智能武器的损害范围，这一点也需要反映在公共教育当中。在路径方面，最重要的是如何使智能武器的发展和使用与现行国际法基本原则保持一致，包括《联合国宪章》和武装冲突法里面的相关原则，都是讨论的重要依据。有中方学者主张建构关于人工智能军事行动的国际规范，切实保证人在智能武器使用中的决定性作用等等。 诚然，这都是学术层面的探讨，参加项目的专家们都撰写了专题论文，可以提供给决策部门参考，这些路径是否可行，还需要经过大量的政策研究和论证。 这两年中美关系出现紧张状况，但是这个项目的研讨并没有受到大的影响，充分显示了两国学界的专业精神和对人类共同命运的责任感和使命感。专家们认识到，现阶段是构建人工智能国际安全规范的关键窗口期，希望两国抓住这一难得的历史性时机，制定人工智能通用规范。 中国对人工智能的发展、应用乃至治理都是高度重视的。2017-2018年间，中央政治局分别围绕大数据和人工智能进行了两次集体学习，习近平总书记指出：“要加强人工智能发展的潜在风险研判和防范”，要“确保人工智能安全、可靠、可控。” 中国在治理和立法方面也迈出实际步伐。例如，2018年中国国家标准化委员会发布《人工智能标准化白皮书》；2019年国家新一代人工智能治理委员会发布了8条治理原则；2019年国务院颁布了《儿童个人信息网络保护规定》，加强对未成年人的信息保护；2020年经全国人大通过颁布的《民法典》中对保护个人隐私做出明确规定，要求不得泄露、出售或非法向他人提供个人信息等。 总之，目前中美两国是人工智能技术研究和应用发展最快的国家，两国需要也有条件加强协调与合作。近年其他许多国家学界也表现出对人工智能应用的安全担忧，说明这是人类共同的难题，不是一国两国能够解决的。中美开展对话与合作至关重要，将能够为全球合作贡献智慧。我希望和相信这不是一场“零和游戏”，人工智能最终应使得全人类受益。